Disentangling Paradigm, Identifier, and Decoding in Generative Retrieval
生成式检索中范式、标识符与解码的解耦分析
🧭 生成式检索 · Semantic ID · 扩散解码 ★ 深度解读
Artefact Research Center
控制 AR/扩散、docid 与解码，证明解码可改变扩散 Hit@1 6.6-13.7 点，one-pass scoring 近似最优
📌 工作参考价值（4 点）
- one-pass scoring：用全 mask docid 一次前向得到 L×K 概率表，按每个候选 docid 的 code 概率求和打分，免迭代去噪，可直接作为扩散生成式推荐/检索的 top-K 召回或粗排；在本文 11/12 设置中打平或超过 generate-and-match，工程上非常适合低延迟场景。
- 训练 recipe 必须按范式独立调：AR 的高 weight decay、线性衰减直接用于扩散会使模型输出常数；扩散需要更低 weight decay、常数学习率、warmup 等。落地时不要复用 AR 训练配置。
- random ID 在训练查询覆盖充分时保留 RQ 的 83-90% Hit@1，说明语义层级结构并非核心收益来源；若业务训练曝光已足够，可先用简单 ID 或轻量语义 ID，把资源投入解码与训练稳定性。
- PQ/独立 code 在生成 miss 后 gold 更容易留在候选里（恢复率约为 RQ 的 2.3 倍），且更适合并行解码；若采用 block diffusion 或 MDLM，可优先考虑 PQ-like 或维度独立的 semantic ID，并搭配 one-pass/chain-rule 解码。